Korolev sinh tại Zhytomyr, một trung tâm tỉnh lị ở miền trung Ukraina, khi đó là một phần của Đế quốc Nga. Cha mẹ của ông, ông bà Pavel Yakovlevich Korolyov và Maria Nikolaevna Moskalenko lấy nhau theo sự sắp đặt của gia đình và không có hạnh phúc. Ba năm sau khi cậu bé Sergei ra đời, hai vợ chồng chia tay nhau vì những khó khăn tài chính. Mẹ Sergei nói với cậu rằng bố đã chết ngay khi cậu ra đời, cậu sau đó biết rằng bố cậu – ông Pavel vẫn sống đến năm 1929. Hai vợ chồng không bao giờ gặp lại nhau kể từ họ chia tay mặc dù ông Pavel có viết thư cho bà Maria đề nghị được gặp con.

Korolev lớn lên ở Nizhyn – một thành phố nhỏ bắc Ukraina - dưới sự chăm sóc của ông bà ngoại. Mẹ cậu muốn tiếp tục theo học nên thường vắng nhà để tham gia các khóa học ở Kiev. Cậu bé Sergei là đứa bé cô đơn với vài người bạn, tuy vậy cậu cho thấy là một học sinh giỏi, đặc biệt là toán học. Năm 1916, mẹ cậu lập gia đình với ông Grigory Mikhailovich Balanin – một kỹ sư điện. Cha dượng mang lại ảnh hưởng tốt cho Sergei. Gia đình nhỏ sau đó chuyển đến Odessa, nơi ông Grigory làm việc cho tuyến đường sắt khu vực này.

Năm 1918 đầy những biến động ở nước Nga, Chiến tranh thế giới thứ nhất đi đến hồi kết và ảnh hưởng Cách mạng tháng Mười ngày càng rộng khắp. Chiến tranh diễn ra khắp nơi cho đến 1920 khi chính quyền Xô viết chứng minh tính vô địch. Trong thời gian loạn lạc này, các trường học ở địa phương đều đóng cửa và Korolev tiếp tục tự học ở nhà. Gia đình cậu đã trải qua những thời gian khó khăn như mọi gia đình khác của nước Nga.